La Lezione 5 segna un cambiamento fondamentale in COMP5511. Ci stiamo allontanando dalla logica deterministica del calcolo classico e dalla certezza supervisionata dei primi modelli di classificazione verso il cuore probabilistico dell'IA Generativa. In questa sessione, esploriamo perché i moderni modelli di IA non producono "fatti" ma piuttosto distribuzioni di probabilità, scoprendo i meccanismi che permettono agli LLM di scrivere poesie e ai modelli di diffusione di dipingere dal rumore.

1. Il Cambiamento di Paradigma: Dalla Logica alla Probabilità

• Oltre IF-THEN: Passaggio da regole rigide a probabilità statistiche fluide.
• La Fine della Certezza: Comprendere perché i risultati della GenAI sono non deterministici per progettazione.
• La Probabilità come Strumento: Come l'"Era della GenAI" tratta l'incertezza come una caratteristica per la creatività piuttosto che un bug da correggere.

2. I Motori Probabilistici della Creazione

L'IA Generativa si basa sul campionamento da spazi di probabilità ad alta dimensionalità. Che si tratti di generare testo o immagini, il modello naviga nell'incertezza per produrre novità:

• Modelli Linguistici di Grandi Dimensioni (LLM): Prevedere il token successivo non come una singola scelta, ma come una distribuzione di possibilità.
• Modelli di Diffusione: L'arte di ricostruire l'ordine dal caotico rumore Gaussiano.
• Il Processo di Campionamento: Come la casualità viene sfruttata per prevenire output ripetitivi e "robotici".

3. Agenti in Mondi Imprevedibili

Gli Agenti Autonomi devono navigare in "Mondi Aperti" dove ogni azione comporta un grado di rischio e ricompensa sconosciuti.